Le Pivot parallèle représente le changement fondamental dans la philosophie computationnelle, passant d'une séquence temporelle (faire une chose après l'autre) à une répartition spatiale (faire tout en même temps sur une grille).

1. L'heuristique de l'indépendance

C'est la règle d'or du calcul GPU : « Chaque fois que votre problème consiste à « appliquer quelque chose de manière indépendante à N éléments », c'est la première approche à essayer. » Cette approche parallèle des données est le fruit facile à atteindre de l'accélération GPU, où la charge liée à la gestion des threads est largement dominée par un débit massif et simultané.

2. Précision et charge utile

Les noyaux HIP traitent généralement de grands tableaux de types primitifs. En graphisme haute performance et apprentissage automatique, nous utilisons souvent float (précision simple), tandis que les simulations scientifiques nécessitant une stabilité numérique extrême utilisent double (précision double).

3. De l'itération à l'occupation

Dans le code CPU, le processeur « visite » les données via des boucles. Dans la logique GPU, les données « occupent » un thread. Vous cessez d'écrire comment faire une boucle et commencez à écrire ce qu'un seul travailleur doit faire à une coordonnée spécifique.

$$\text{Indice } i = \text{blockIdx.x} \times \text{blockDim.x} + \text{threadIdx.x}$$